Huyện Sơn Hòa được thành lập năm 1899, là một trong 3 huyện miền núi của tỉnh Phú Yên, có vị trí chiến lược về quốc phòng và an ninh. Huyện nằm dọc quốc lộ 25, tuyến giao thông huyết mạch nối liền các tỉnh Duyên hải Nam Trung Bộ với Tây Nguyên tạo điều kiện thuận lợi cho việc giao lưu kinh tế, văn hóa giữa miền núi và đồng bằng, tạo thời cơ để Sơn Hòa bứt phá và phát triển bền vững.

Sau năm 1975, huyện được sáp nhập với huyện Sông Hinh thành huyện Tây Sơn.

Đến ngày 27 tháng 12 năm 1984, huyện được tái lập từ huyện Tây Sơn cũ, gồm 11 xã: Cà Lúi, Krông Pa, Phước Tân, Sơn Định, Sơn Hà, Sơn Hội, Sơn Long, Sơn Nguyên, Sơn Phước, Sơn Xuân, Suối Trai và thị trấn Củng Sơn.

Ngày 23 tháng 3 năm 1994, điều chỉnh một phần diện tích và dân số của xã Krông Pa thuộc huyện Sơn Hòa vào huyện Sông Hinh.[1]

Ngày 20 tháng 7 năm 1997, xã Ea Chà Rang được thành lập trên cơ sở 8.280,55 ha diện tích tự nhiên và 1.220 nhân khẩu của xã Suối Trai.

Ngày 28 tháng 4 năm 1999, xã Suối Bạc được thành lập trên cơ sở điều chỉnh 2.528 ha diện tích tự nhiên và 3.184 nhân khẩu của xã Sơn Phước; 1.036 ha diện tích tự nhiên và 828 nhân khẩu của thôn Trung Hòa, thị trấn Củng Sơn.